Mikhail Ivanovich Kalinin gia nhập Đảng Lao động Dân chủ Xã hội Nga (RSDLP) vào năm 1898, năm thành lập.[4] Ông biết đến Stalin thông qua gia đình Alliluyev.

Trong Cách mạng Nga năm 1905, Kalinin làm việc cho đảng Bolshevik và nhân viên của Liên minh Công nhân Kỹ nghệ sắt Trung ương.[4] Sau đó, ông đã trở thành hoạt động thay mặt cho RSDLP ở Tiflis, Georgia (nay là Tbilisi), Reval, Estonia (nay là Tallinn) và Moskva.[2] Vào tháng 4 năm 1906, ông làm đại biểu tại Đại hội lần thứ tư của Đảng Lao động Dân chủ Xã hội Nga.

Kalinin là một người trung thành tận tụy ngay từ lúc đầu của phe Bolshevik của RSDLP, đứng đầu là Vladimir Lenin. Ông là đại biểu của Hội nghị Đảng Bolshevik năm 1912 được tổ chức tại Prague, nơi ông được bầu làm thành viên thay thế của Ủy ban Trung ương điều hành và được cử đi làm việc ở Nga.[2] Ông không trở thành một đảng viên chính thức vì bị nghi ngờ là một đặc vụ Okhrana (tác nhân thực sự là Roman Malinovsky, một đảng viên chính thức).

Kalinin đã bị bắt vì các hoạt động chính trị của ông vào năm 1916 và được trả tự do trong Cách mạng tháng Hai năm 1917, đã lật đổ nhà nước Sa hoàng.[4]